Địa bàn phường Hải Sơn hiện nay trước đây vốn là hai phường Vạn Sơn và Ngọc Hải thuộc quận Đồ Sơn.

Trước khi sáp nhập, phường Vạn Sơn có diện tích 2,23 km², dân số là 5.518 người, mật độ dân số đạt 2.474 người/km². Phường Ngọc Hải có diện tích 3,50 km², dân số là 8.053 người, mật độ dân số đạt 2.301 người/km².

Ngày 10 tháng 1 năm 2020, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết số 872/NQ-UBTVQH14 về việc sắp xếp các đơn vị hành chính cấp xã thuộc thành phố Hải Phòng (nghị quyết có hiệu lực từ ngày 1 tháng 2 năm 2020)[1]. Theo đó, sáp nhập toàn bộ diện tích và dân số của hai phường Ngọc Hải và Vạn Sơn thành phường Hải Sơn.